{
 "cells": [
  {
   "cell_type": "markdown",
   "id": "c3b3feff-775c-412d-bc63-39764d9c6f89",
   "metadata": {},
   "source": [
    "# 2.7 通过微调提升模型的准确度和效率"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "3e93f3e3",
   "metadata": {},
   "source": [
    "## 🚄 前言\n",
    "\n",
    "前面的课程中，介绍了如何搭建一个答疑机器人，并尝试通过优化提示词和构建RAG、扩展插件等方式提升其能力。不过你可能会发现，你一直在模型外围\"打补丁\"——这些方法本质上都是通过外部工具增强模型表现，而模型本身的知识边界和推理能力并未发生根本性改变。本节将带你走进大模型的\"内功修炼场\"，通过微调（Fine-tuning）技术直接提升模型的底层能力。\n",
    "\n",
    "当面对特定领域的深度需求时，比如小学数学题的精准解析，靠提示工程和 RAG 往往力不从心。针对题目中涉及的运算优先级规则、应用题单位换算逻辑等细节，模型需要掌握结构化的知识体系。此时，微调方法展现出独特优势——通过向模型提供小学数学教育专家精心设计的解题范例，模型能够学习专家的教学方法，掌握数学思维范式，并有效提升解题能力。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "c2783c73",
   "metadata": {},
   "source": [
    "## 🍁 课程目标\n",
    "\n",
    "学完本节课程后，你将能够：\n",
    "\n",
    "*   学习并理解大模型微调的核心原理与实现逻辑。\n",
    "*   结合训练原理，掌握关键训练参数的调优方法论。\n",
    "*   独立完成对模型的微调，学习可能遇到的问题并实践各种解决方法。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "98334953",
   "metadata": {},
   "source": [
    "## 0. 环境准备\n",
    "\n",
    "由于模型微调对硬件性能要求较高，因此你需要使用PAI的交互式建模（DSW）重新创建一个包含GPU的实例，让你可以更快地完成微调任务。<br>\n",
    "> 如果你在本地没有GPU环境或者GPU显存不到30GB，不建议你在本地学习本课程，代码的运行可能会失败\n",
    "\n",
    "请参考“[1_0_计算环境准备](https://edu.aliyun.com/course/3130200/lesson/343310285)”中的`步骤一：创建 PAI DSW 实例`重新创建一个新的实例，不同之处在于：<br>\n",
    "1.  确保新的实例与之前创建的实例**不重名**，如：acp_gpu<br>\n",
    "2.  **资源规格**选择免费试用页签中的`ecs.gn7i-c8g1.2xlarge`（该规格有一个**A10 GPU，显存30GB**），不用担心，你领取到的免费额度足够支持你完成**本节课程**以及**下一节 部署模型**的课程<br>\n",
    "3.  **镜像**选择`pytorch2.3.1`版本，例如 `modelscope:1.29.0-pytorch2.3.1tensorflow2.16.1-gpu-py311-cu121-ubuntu22.04`（需要将“镜像配置”->”芯片类型“切换为GPU）<br>\n",
    "完成创建后，当实例状态为`运行中`时，在 `Terminal` 中输入以下命令来获取ACP课程的代码：<br>\n",
    "    ```bash\n",
    "    git clone https://github.com/AlibabaCloudDocs/aliyun_acp_learning.git\n",
    "    ```\n",
    "\n",
    "在新创建的GPU实例的 `Notebook` 中重新打开本章节，继续学习接下来的内容。<br>\n",
    "\n",
    "\n",
    "安装以下依赖："
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "031f61d7",
   "metadata": {
    "tags": []
   },
   "outputs": [],
   "source": [
    "# 需要安装以下依赖\n",
    "%pip install accelerate==1.0.1 rouge-score==0.1.2 nltk==3.9.1 ms-swift[llm]==2.4.2.post2 evalscope==0.5.5rc1 transformers==4.45.2 trl==0.12.2 autoawq==0.2.6 autoawq-kernels==0.0.7 modelscope==1.18.1"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "0bfaa0e0",
   "metadata": {},
   "source": [
    "## 1. 任务设计\n",
    "\n",
    "如何解决数学问题一直是大模型发展的一个重要方向，正好你的智能助手也需要具备基础计算能力。为了方便对模型进行微调，你可以选定一个小参数的开源模型`qwen2.5-1.5b-instruct`作为你的基准模型。\n",
    "\n",
    "首先，你需要下载模型，并将其加载到内存中："
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "c4f1a505",
   "metadata": {
    "execution": {
     "iopub.execute_input": "2025-03-05T03:03:24.966669Z",
     "iopub.status.busy": "2025-03-05T03:03:24.966320Z",
     "iopub.status.idle": "2025-03-05T03:04:13.948625Z",
     "shell.execute_reply": "2025-03-05T03:04:13.948068Z",
     "shell.execute_reply.started": "2025-03-05T03:03:24.966643Z"
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "# 下载模型参数到 ./model 目录下\n",
    "!mkdir ./model \n",
    "!modelscope download --model qwen/Qwen2.5-1.5B-Instruct --local_dir './model'\n",
    "\n",
    "from swift.llm import (\n",
    "    get_model_tokenizer, get_template, ModelType,\n",
    "    get_default_template_type\n",
    ")\n",
    "import torch\n",
    "\n",
    "#你可以根据你的需要修改query（模型输入）\n",
    "\n",
    "# 获得模型信息\n",
    "model_type = ModelType.qwen2_5_1_5b_instruct\n",
    "template_type = get_default_template_type(model_type)\n",
    "# 设置模型本地位置\n",
    "model_id_or_path = \"./model\"\n",
    "# 初始化模型和输入输出格式化模板\n",
    "kwargs = {}\n",
    "llm, tokenizer = get_model_tokenizer(model_type, torch.float32, model_id_or_path=model_id_or_path, model_kwargs={'device_map': 'cpu'}, **kwargs)\n",
    "llm.generation_config.max_new_tokens = 128\n",
    "template = get_template(template_type, tokenizer, default_system='')\n",
    "print(\"模型初始化完成\")"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "1063c961",
   "metadata": {},
   "source": [
    "可以直接试一试它在数学题上的效果（答案是：可收萝卜648千克）："
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "3d446abd",
   "metadata": {
    "execution": {
     "iopub.execute_input": "2025-03-05T03:04:22.515786Z",
     "iopub.status.busy": "2025-03-05T03:04:22.515413Z",
     "iopub.status.idle": "2025-03-05T03:04:39.969526Z",
     "shell.execute_reply": "2025-03-05T03:04:39.969036Z",
     "shell.execute_reply.started": "2025-03-05T03:04:22.515762Z"
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "from swift.llm import inference\n",
    "from IPython.display import Latex, display\n",
    "\n",
    "math_question = \"在一块底边长18米，高6米的三角形菜地里种萝卜。如果每平方米收萝卜12千克，这块地可收萝卜多少千克？\"\n",
    "query = math_question\n",
    "response, _ = inference(llm, template, query)\n",
    "print(query)\n",
    "print(\"正确答案是：可收萝卜648千克\")\n",
    "print('-----------大模型回答-------------')\n",
    "display(Latex(response)) \n",
    "print('------------回答结束--------------')"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "ec0f6e2d",
   "metadata": {},
   "source": [
    "可以发现似乎你的模型并不能很好的计算这个简单的数学问题，模型知道三角形的面积公式，但却无法利用知识准确计算出萝卜的重量。\n",
    "\n",
    "当然使用RAG的效果是一样的，经过前面的学习，你知道RAG更像是开卷考试，但你从来没有见过数学考试开卷能提升成绩，因为提高数学能力的核心在于提高学生的逻辑推理和计算能力而非知识检索。\n",
    "\n",
    "所以为了直接提升你答疑机器人在简单数学问题上的能力，你必须使用模型微调来提高模型的逻辑推理能力。（计算能力可以通过引入“计算器”插件来增强）"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "1dc8d595",
   "metadata": {},
   "source": [
    "## 2. 微调原理\n",
    "\n",
    "### 2.1 模型如何学习\n",
    "\n",
    "#### 2.1.1 机器学习 - 通过数据寻找规律\n",
    "\n",
    "在传统编程工作中，你通常是知道明确的规则，并将这个规则编写成函数的形式，例如：$f(x) = ax$。\n",
    "\n",
    "其中 a 是已知的确定性值（也称为参数或权重）。这里的函数，就是一个简单的算法模型，它能根据输入$x$来计算（预测）输出$y$。\n",
    "\n",
    "然而实际情况中，你更有可能事先不知道明确规则（参数），但可能知道一些现象（数据）。\n",
    "\n",
    "机器学习的目标，就是帮助你通过数据（训练集），来尝试找到（学习）这些参数值，这一过程被称为训练模型。\n",
    "\n",
    "#### 2.1.2 Loss Function & Cost Function - 量化评估模型表现\n",
    "\n",
    "要找到最合适的参数，你就需要有办法来度量当前所尝试的参数是否合适。\n",
    "\n",
    "为了更好理解，可以假设你现在需要评估模型$f(x) = ax$中的参数 a 是否合适。\n",
    "\n",
    "##### Loss Function 损失函数\n",
    "\n",
    "你可以用训练集的每一个样本$x_i$对应的实际结果值 $y_i$，与模型预测结果值 $f(x_i)$相减，来评估模型在$x_i，y_i$这一条数据上的表现。这个评估误差的函数被称为 Loss Function（损失函数，或误差函数）：$L(y_i, f(x_i)) =  y_i - ax_i$。\n",
    "\n",
    "直接计算差值时可能会有正有负，这会导致在汇总损失时产生正负值相互抵消，低估了总损失。为了解决这一问题，你可以考虑将差值的平方，作为损失：$L(y_i, f(x_i)) = (y_i - ax_i)^2$。同时，平方值能够放大误差的影响，有利于你找到最合适的模型参数。\n",
    "\n",
    "> 在实际应用中，对于不同的模型，可能会选择不同的计算方法来作为 Loss Function。\n",
    "\n",
    "##### Cost Function 代价函数\n",
    "\n",
    "为了评估模型在整个训练集上的表现，你可以计算所有样本的损失平均值（即均方误差，Mean Squared Error，MSE）。这种用于评估模型在所有训练样本上的整体表现的函数，被称为 Cost Function（代价函数，或成本函数）。\n",
    "\n",
    "对于包含 m 个样本的训练集，代价函数可以表示为：$J(a) = \\frac{1}{m} \\sum_{i=1}^{m} (y_i - ax_i)^2$。\n",
    "\n",
    "> 在实际应用中，对于不同的模型，也可能会选择不同的计算方法来作为 Cost Function。\n",
    "\n",
    "有了 Cost Function，寻找模型合适的参数的任务，就可以等效为寻找 Cost Function 最小值（即最优解）的任务。找到 Cost Function 的最小值，意味着该位置的参数 a 取值，就是最合适的模型参数取值。\n",
    "\n",
    "如果将 Cost Function 绘制出来，寻找最优解的任务，其实就是寻找曲线或曲面的最低点。\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i4/O1CN0149XTTS1WUKSTtpeoh_!!6000000002791-2-tps-2314-1682.png\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "> 实际项目中，人们经常会将代价函数、损失函数两个概念混用，在后续内容中的代码，我们也会沿用这一工程习惯，将代价函数称为损失函数（loss function）。\n",
    "\n",
    "#### 2.1.3梯度下降算法 - 自动地寻找最优解\n",
    "\n",
    "在前面的曲线中，你可以肉眼观察到最低点。但在实际应用中，模型通常参数很多，其 Cost Function 通常是高维空间中的复杂曲面，无法通过直接观察来找到最优解。因此，你需要一种自动化的方法，来寻找最优参数配置。\n",
    "\n",
    "梯度下降算法是最常见的方法之一。一种常见的梯度下降算法实现是，先在曲面（或曲线）上随机选择一个起点，然后通过不断小幅度调整参数，最终找到最低点（对应最优参数配置）。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i2/O1CN01ihhR9Y1IbkFZTQ3bV_!!6000000000912-1-tps-1080-810.gif\" style=\"width: 400px;margin-left: auto; margin-right: auto\"/>\n",
    "<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01meUISA1dHgq2mqm6V_!!6000000003711-1-tps-1080-810.gif\" style=\"width: 400px;margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "训练模型时，你需要训练程序能自动地不断调整参数，最终让 Cost Function 的值逼近最低点。所以梯度下降算法，需要能自动地控制两点：调整参数的方向，以及调整参数的幅度。\n",
    "\n",
    "##### 调整参数的方向\n",
    "\n",
    "如果 Cost Function 是一条如下图所示的 U 型曲线，可以很直观地看到，最低点位于曲线平坦区的最中心，参数的调整应该是朝曲线斜率绝对值变低的方向，也就是越来越平坦的方向。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i2/O1CN01ME3u6G203FVsQsmLe_!!6000000006793-2-tps-1608-1244.png\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "如果 Cost Function 是一个如下图所示的，三维坐标系下的曲面，最低点位于曲面“碗底”中心点。为实现最高效的下降，在曲面的任意点上，都不应随意选择下降的方向，而应该找到该点最陡峭的上升方向，并沿着其相反的方向进行参数调整，也就是朝着越来越平坦的“碗底”中心点位置移动。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i2/O1CN01Uh8OxI1mqnkBHqMjH_!!6000000005006-1-tps-664-684.gif\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "在数学中，梯度指向了以曲面上的某个点为起点，上升最快的方向，其反方向则是下降最快的方向。\n",
    "\n",
    "为了在最短时间内找到曲面最低点，调整参数的方向，应该朝着梯度的反方向，也就是上面两个图中的绿色箭头方向。\n",
    "\n",
    "> 对于二维坐标系的曲线 f(a)，某点的梯度就是该点的斜率。  \n",
    "> 对于三维坐标系里的曲面 f(a,b)，某点的梯度是由该点在 a、b 轴方向上的斜率值组成的二维向量。这表明了函数在各个输入变量方向上的变化率，并指向了增长最快的方向。计算曲面上一个点在某一个轴方向上的斜率的过程，也被称为求偏导。\n",
    "\n",
    "##### 调整参数的幅度\n",
    "\n",
    "确定了调整参数的方向后，需要确定调整参数的幅度。\n",
    "\n",
    "按照固定步长调整参数，是最容易想到的办法，但这可能会导致你始终无法找到最低点，而是在最低附近震荡。\n",
    "\n",
    "比如下图，你按照固定步长为 1.5 来调整参数，就会出现在最低值附近反复震荡，无法进一步逼近最低点的情况。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01y7FatQ27bKI9CYCJ1_!!6000000007815-1-tps-938-646.gif\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "为了避免这一问题，接近最低点时，应该调低调整幅度。越接近最低点，斜率会越小，因此你可以不再使用固定步长，而是使用当前位置的斜率作为调整幅度。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01h45Ifb1xRZhXXIXEC_!!6000000006440-1-tps-892-618.gif\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "但也有些 Cost Function 曲线非常陡峭，直接使用斜率也可能导致你跨过最低点反复震荡。为此，你可以使用斜率的同时，对斜率乘以一个系数，来调节步长。这个系数，被称为 Learning Rate（学习率）。\n",
    "\n",
    "Learning Rate 的选择，对于训练效果和效率尤为重要：\n",
    "\n",
    "<div style=\"display: flex; justify-content: space-between; gap: 2px; padding: 15px; background:rgba(0,0,0,0)\">\n",
    "    <!-- 第一列 -->\n",
    "    <div style=\"flex: 1; padding: 10px; border: 1px solid #ddd; border-radius: 5px\">\n",
    "        <p style=\"margin-top: 10px\">合适的学习率，能让你在较短的时间里，找到合适的参数。</p>\n",
    "        <img src=\"https://img.alicdn.com/imgextra/i3/O1CN01NrvVfj1sCqtKHLyia_!!6000000005731-2-tps-1680-1224.png\" style=\"width: 100%; height: auto; border-radius: 3px\"/>\n",
    "    </div>\n",
    "    <!-- 第二列 -->\n",
    "    <div style=\"flex: 1; padding: 10px; border: 1px solid #ddd; border-radius: 5px\">\n",
    "        <p style=\"margin-bottom: 10px\">过低的学习率，虽然能找到合适的参数，但会有更大的耗时和资源消耗。</p>\n",
    "        <img src=\"https://img.alicdn.com/imgextra/i1/O1CN015dbcz61MCn8LkN2Ta_!!6000000001399-2-tps-1728-1300.png\" style=\"width: 100%; height: auto; border-radius: 3px\"/>\n",
    "    </div>\n",
    "    <!-- 第三列 -->\n",
    "    <div style=\"flex: 1; padding: 10px; border: 1px solid #ddd; border-radius: 5px\">\n",
    "        <p style=\"margin-bottom: 10px\">过高的学习率，可能导致你跳过了最优解，最终找不到最低点。</p>\n",
    "        <img src=\"https://img.alicdn.com/imgextra/i1/O1CN01l4leTB1LKI0BcVs16_!!6000000001280-2-tps-1658-1262.png\" style=\"width: 100%; height: auto; border-radius: 3px\"/>\n",
    "    </div>\n",
    "</div>\n",
    "\n",
    "较小的学习率，虽然会让你耗费很多计算资源和时间，但其实有助于你更加逼近最低点。实际的模型训练工程中，也会尝试动态地调整学习率。比如百炼的模型微调功能中，提供了[学习率调整策略](https://help.aliyun.com/zh/model-studio/user-guide/using-fine-tuning-on-console#7864d6a606ztg)，它允许你配置学习率线性递减、或者按照曲线来递减。阿里云的 PAI 还提供了 [AutoML](https://help.aliyun.com/zh/pai/user-guide/automl/) 工具，它可以帮助你自动找到更合适的 Learning Rate。\n",
    "\n",
    "#### 2.1.4 更多模型训练工程中会用到的参数\n",
    "\n",
    "##### batch size\n",
    "\n",
    "在寻找 Cost Function 最低点的过程中，每一次计算梯度（各方向上的斜率），然后根据该梯度更新模型参数，准备进行下一次计算和更新的过程，被称为一个训练步骤（training step）。\n",
    "\n",
    "前文的介绍中，每个训练步骤是计算某一个点的梯度，然后进行参数更新。你也可以将 batch size 设置为 n ，基于 n 个样本（mini-batch）平均梯度，进行参数更新。\n",
    "\n",
    "较大的 batch size 能加速训练过程，但对资源消耗也会更大，同时过大的 batch size 也可能导致模型泛化性能下降等问题。\n",
    "\n",
    "选择合适的 batch size 是一个权衡的过程，它取决于可用的硬件资源、训练时间和期望的模型性能等因素。实践中，通常也需要通过实验来确定最适合特定任务的 batch size。\n",
    "\n",
    "##### eval steps\n",
    "\n",
    "因为训练集通常数量很大，人们通常不会在对训练集进行完整的迭代后，再使用验证集做评估（evaluation），而是会选择每间隔多少个训练步骤，就用验证集进行一次评估。这个间隔步骤数，通常是通过 eval_steps 参数来控制。\n",
    "\n",
    "##### epoch\n",
    "\n",
    "对训练集进行一次完整的迭代，被称为一个 epoch。实际训练过程中，你并不能保证在一个 epoch 内就一定能找到 Cost Function 的最优解（最低点），所以很多训练框架会支持配置训练轮次，如训练框架 swift 中提供的 num_train_epochs 参数。\n",
    "\n",
    "过小的 epoch 值可能会导致训练结束时，还没有找到最优模型参数。过大的 epoch 值会导致训练时间过长以及资源浪费。\n",
    "\n",
    "寻找合适的 epoch 的常见方法是早停法（Early Stopping）：在训练启动前，并不预设一个 epoch 值（或者设置一个较大值），然后在训练过程中，定期使用验证集评估模型表现。当模型在验证集表现不再提升（或者开始下降）时，自动停止训练。\n",
    "\n",
    "当然，早停法并不是唯一的解法，业界还有很多其他方法，来确定合适的 epoch 值，如动态调整学习率，根据验证集损失的变化来决定学习率的增减，从而间接影响训练的 epoch 数。\n",
    "\n",
    "#### 2.1.5 神经网络--万能复杂函数逼近器\n",
    "\n",
    "**机器学习面临的问题：**\n",
    "\n",
    "在文本生成任务中，输入$x$和输出$y$一般都有非常多的维度，你无法直接看出他们之间的规律，该怎么办？\n",
    "\n",
    "聪明的数学家们找到了一个**万能函数逼近器——神经网络（多层）**，它也成为了当前复杂机器学习任务的基础。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i1/O1CN01QRD5MH1rwMdJHBzxi_!!6000000005695-2-tps-1080-533.png\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "一层神经网络一般表示为$Y=σ(W⋅X)$，大写的输入$X$和输出$Y$分别表示它们是多维的，$σ$是激活函数，$W$是假定的函数$f$的参数。k层神经网络可以表示为$Y=σ(W_k ⋯ σ(W_2 ⋅σ(W_1⋅X)))$。\n",
    "\n",
    "激活函数是神经网络中引入非线性变换的关键组件，用于决定神经元是否被激活并传递信息。比如最常用的激活函数ReLU可以写成：\n",
    "\n",
    "**$ReLU(input) = max( 0，input)= \\begin{cases} input&当 input  > 0 \\\\ \\\\ 0 & 当 input ≤ 0 \\end{cases}$**\n",
    "\n",
    "当 $input≤0$时，神经元不激活；当$input>0$时，神经元激活，开始向输出传递信息。\n",
    "\n",
    "一层神经网络展开后可以写成这样：（假设$X$为 $3×2$ 维矩阵，$Y$为 $2×2$ 维矩阵）\n",
    "\n",
    "$σ(W_{2×3}⋅X_{3×2})= σ(\\left[ \\begin{matrix} w_{1,1} & w_{1,2}  & w_{1,3} \\\\ w_{2,1} & w_{2,2}  & w_{2,3} \\end{matrix} \\right]×\\left[ \\begin{matrix} x_{1,1}& x_{1,2}\\\\ x_{2,1}& x_{2,2} \\\\ x_{3,1}& x_{3,2} \\end{matrix} \\right])$\n",
    "\n",
    "$= σ(\\left[\\begin{matrix}\n",
    "w_{1,1}×x_{1,1}+w_{1,2}×x_{2,1}+w_{1,3}×x_{3,1}&\n",
    "w_{1,1}×x_{1,2}+ w_{1,2}×x_{2,2}+w_{1,3}×x_{3,2} \\\\\n",
    "w_{2,1}×x_{1,1}+ w_{2,2}×x_{2,1}+w_{2,3}×x_{3,1}&\n",
    "w_{2,1}×x_{1,2}+ w_{2,2}×x_{2,2}+w_{2,3}×x_{3,2} \\end{matrix} \\right])$\n",
    "\n",
    "$= \\left[ \\begin{matrix} max(0， \\sum\\limits_{k=1}^{3}w_{1,k}×x_{k,1})& max(0， \\sum\\limits_{k=1}^{3}w_{1,k}×x_{k,2})\\\\ max(0， \\sum\\limits_{k=1}^{3}w_{2,k}×x_{k,1})&  max(0， \\sum\\limits_{k=1}^{3}w_{2,k}×x_{k,2}) \\end{matrix} \\right]= \\left[ \\begin{matrix} y_{1,1}& y_{1,2}\\\\ y_{2,1}& y_{2,2} \\end{matrix} \\right]=Y_{2×2}$\n",
    "\n",
    "同时万幸的是，梯度下降法在高维度、复杂的函数上一样有效。\n",
    "\n",
    "<div style=\"text-align: center\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i3/O1CN011caxP31GiUrEv1aGH_!!6000000000656-2-tps-847-779.png\" style=\"width: 400px; display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "现在你已经有了王牌组合：\n",
    "\n",
    "**能够逼近任意复杂函数的工具——神经网络 + 能够拟合数据规律、学习函数参数的方法 ——梯度下降法**\n"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "576f0801",
   "metadata": {},
   "source": [
    "### 2.2 高效微调技术\n",
    "\n",
    "#### 2.2.1 预训练与微调\n",
    "\n",
    "通过前面的学习，你已经了解了模型训练的本质，是寻找最合适的参数组合。\n",
    "\n",
    "你在最开始下载好的模型，就是预训练好的参数组合。\n",
    "\n",
    "微调则是在此基础上，进一步训练调整参数，以适应你的目标任务（比如这里的解数学题）。\n",
    "\n",
    "接下来，以`qwen2.5-1.5b-instruct` 为例，粗略看下从零训练一个模型的时间和硬件需求。 \n",
    "\n",
    "为了微调大模型，你需要选择如T4、A10、V100、A100、H100等等型号的显卡。其中，T4、A10和V100在国内相对容易租到，且性价比更高；而A100和H100虽然性能更卓越，但成本更高。\n",
    "\n",
    "显存要求：\n",
    "\n",
    "*   1.5B参数占用内存（假设按全精度 FP32 ，单参数占用4字节）：$1.5*{10^9}*4/{2^{30}}≈ 5.59GB$\n",
    "    \n",
    "*   一般对模型进行训练时，大概需要模型参数内存的7~8倍，也就是约**45GB**的显存。这个显存占用基本上超过了大多数显卡的配置，也超过了你的GPU实验环境显存。\n",
    "    \n",
    "<br/>\n",
    "\n",
    "假设你在阿里云官网上创建了一个有 8张 V100 显卡的**ECS实例**，这个实例有256GB的显存，完全满足你的模型对显存的需求。接下来，你可以用下述的方法估算一下训练时间和成本： \n",
    "\n",
    "- **训练数据总量**：为了满足业务上的精度需要，假设你需要的训练数据量大约相当于两千本红楼梦（假设78万字一本），即大约 15.6亿个token。\n",
    "- **单位训练速度**：假设你使用的 V100 显卡每秒钟可处理 190个tokens。\n",
    "- **单位训练成本**：在阿里云官网查到 8张 V100 显卡的ECS实例，每小时价格大约 211元。\n",
    "\n",
    "那么完成一轮微调训练大概需要 12 天，约 6万元。\n",
    "\n",
    "**训练时间计算如下**\n",
    "\n",
    "- 训练时间（天）= $\\frac{15.6亿Tokens}{ 8卡 * 190 tokens/s * 3600秒 * 24小时} ≈ 12天$\n",
    "\n",
    "> 相比之下，大模型 LLaMA-65B 的预训练使用了 1.4 万亿个tokens的数据量，采用了 2048 个 A100 显卡，训练速度约为每个GPU每秒处理380tokens，预训练总共花费了 21 天。\n",
    "\n",
    "**训练成本计算如下**\n",
    "\n",
    "- 训练成本（元）= $\\frac{15.6亿Tokens}{ 8卡 * 190 tokens/s * 3600秒 } * 211 元/小时 ≈ 6 万元 $\n",
    "\n",
    "> 相比之下，大模型 LLaMA-65B 的预训练采用了 2048 个 A100 显卡，按当时价格，租用每张 A100 显卡每小时 $3.93 计算，一轮预训练大约需要四百万美元。\n",
    "\n",
    "因此，你所追求的业务效果和为了达到这个业务效果而准备的**训练数据量**决定了你做微调需要使用的**总算力**。而**使用更好的显卡** 可以显著缩短训练时间，在有些情况下还能节约训练总成本，让你的优化迭代更快。\n",
    "\n",
    "为了更好的业务效果，你需要首先确保**训练数据的质量**，再从时间和成本的角度综合考虑租用什么规模的计算集群来完成训练任务。\n",
    "\n",
    "<br/>\n",
    "\n",
    "在实际的模型训练过程中，还面临一个挑战：**标注数据的获取成本高昂**，**尤其是对于特定任务**（如医学图像分析或小众语言处理）。你可以尝试对模型进行“预训练”和“微调”分步训练，其中：\n",
    "\n",
    "*   **预训练**：在一个大规模**通用数据集**上训练模型，使其能够学习到广泛的基础知识或特征表示。这些知识通常是通用的，不针对任何具体任务。预训练不针对特定任务，而是为各种下游任务提供一个强大的初始模型。典型的预训练模型：Qwen2.5-Max、DeepSeek-V3、GPT-4等。\n",
    "    \n",
    "*   **微调**：在预训练模型的基础上，使用特定任务的**小规模数据集**对模型进行进一步训练。其目的是让模型适应具体的下游任务（如医疗、法务等专业领域需求）。\n",
    "    \n",
    "\n",
    "下表展示了预训练与微调的主要区别：\n",
    "\n",
    "<div style=\"width: 20%\">\n",
    "    \n",
    "|  **特性**  |  **预训练**  |  **微调**  |\n",
    "| --- | --- | --- |\n",
    "|  目标  |  $ $ 学习通用特征  |  适应特定任务  |\n",
    "|  数据  |  大规模通用数据  |  小规模任务相关数据  |\n",
    "|  训练方法  |  自监督/无监督  |  有监督  |\n",
    "|  参数更新  |  所有参数可训练  |  部分或全部参数可训练  |\n",
    "|  应用场景  |  基础模型构建  |  特定任务优化  |\n",
    "\n",
    "</div>\n",
    "\n",
    "\n",
    "值得一提的是，**预训练一般通过自监督/无监督方式学习** ，学习的数据来自互联网上的海量文本（如维基百科、书籍、网页），让模型自己从数据中找规律或“猜答案。” 这种学习方式因为其数据无需人工标注，省去了大量人力成本，天然适用于海量数据的学习。\n",
    "\n",
    "而**微调通过有监督学习** ，需要针对特定任务的小规模标注数据（如情感分类的标注评论、医疗文本的标注数据），并用标注数据直接教模型完成任务。这种学习方式由于人工标注成本高，难以扩展为海量数据，因此更适合有明确场景目标的模型训练，所需要的样本数量通常只有几千或几万条。\n",
    "\n",
    "因此，你可以通过如下方式 **快速**、**低成本** 地构建自己的大模型应用：\n",
    "\n",
    "第一步：直接选择预训练模型（如Qwen、DeepSeek、GPT），这样可以节省从零训练一个模型的综合成本。\n",
    "\n",
    "第二步：根据自己的实际场景，微调模型，通常只需要构建几千条适用于实际场景的标注数据，因为训练数据总 Tokens 数大大降低，使得训练时间有效缩减，从而进一步降低训练成本。\n",
    "\n",
    "通过微调可以缩短训练时间，但是微调模型对显存的需求是否也能降低呢？\n",
    "\n",
    "模型参数量是影响显存需求的主要原因，从调整参数量的大小这个角度，可以把微调分为**全参微调**与**高效微调**。\n",
    "\n",
    "**全参微调（Full Fine Tuning）** 是在预训练模型的基础上进行全量参数微调的模型优化方法，也就是在上边的模型结构中，只要有参数，就会被调整。该方法避免消耗重新开始训练模型所有参数所需的大量计算资源，又能避免部分参数未被微调导致模型性能下降。但是，大模型训练成本高昂，需要庞大的计算资源和大量的数据，即使是全参数微调，往往也需要较高的训练成本。\n",
    "\n",
    "**高效微调技术（PEFT）** 通过调整少量参数，显著降低大模型微调的计算成本，同时保持性能接近全参训练。典型方法包括Adapter Tuning、Prompt Tuning 和 LoRA。其中，LoRA 因仅需训练适配的小参数矩阵（即低秩矩阵，仅需原模型0.1%-1%的参数），成为资源受限场景下的首选方案。以下重点解析 LoRA 如何以极低参数量实现高效微调。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "9f59f270",
   "metadata": {},
   "source": [
    "#### 2.2.2 LoRA 微调\n",
    "\n",
    "LoRA（Low-Rank Adaptation）低秩适应微调是现在最常用的微调方法，它不关心模型的架构，只是通过矩阵运算将微调需要更新的参数抽象分解成两个小得多的低秩矩阵$A_{d×r}$和$B_{r×d}$用于训练，模型原有矩阵不训练，即$W^{微调后}_{d×d} = 微调(A_{d×r}⋅B_{r×d}) + 不变(W^{微调前}_{d×d})$。\n",
    "\n",
    "如果你还不太理解低秩分解的过程，那么我们回到神经网络的表达式，并把各个向量、矩阵的维度标好，假设输入$X$是5维的向量，输出$Y$是4维的向量，那么$W$是一个$5×4$的矩阵，写作$W∈R^{5×4}$，共包含20个参数。\n",
    "\n",
    "单层神经网络可比表示为：$Y_{5×1}=σ(W_{5×4}⋅X_{4×1})$。\n",
    "\n",
    "而矩阵的秩通俗一点可以理解为，矩阵的秩$R$代表的是它的有效信息量。比如这个低秩矩阵虽然有两行三列，但其实用一行（列）向量就能表示其他行（列），所以它的秩（rank）为1。\n",
    "\n",
    "$rank(\\left[ \\begin{matrix} 1& 2&3 \\\\ 2& 4&6 \\\\ \\end{matrix} \\right] )=1$\n",
    "\n",
    "**而在模型微调中，可以认为绝大部分的信息更新（高秩）在预训练时完成，微调时带来的有效信息量很少（低秩）。** 公式可以写成：\n",
    "\n",
    "$W_{5×4}^{预训练} -W_{5×4}^{初始}=ΔW_{5×4}^{预训练}，rank(ΔW_{5×4}^{预训练}）= 5$，而$W_{5×4}^{微调} -W_{5×4}^{预训练}=ΔW_{5×4}^{微调}，rank(ΔW_{5×4}^{微调})≤2$。\n",
    "\n",
    "而低秩矩阵因为信息密度低，可以进行低秩分解将有效信息分解到两个小得多的矩阵，这里假设$rank(ΔW_{5×4}^{微调})=1$：\n",
    "\n",
    "$ΔW_{5×4}^{微调}=\\left[ \\begin{matrix} 1 & 0 & 2 & -1\\\\ 2& 0&4& -2 \\\\ 3& 0&6& -3 \\\\ 4& 0&8 & -4\\\\ 5& 0&10 & -5\\\\ \\end{matrix} \\right]_{5×4}=\\left[ \\begin{matrix} 1\\\\ 2\\\\ 3\\\\ 4\\\\ 5\\\\ \\end{matrix} \\right]_{5×1}× \\left[ \\begin{matrix} 1& 0 & 2 & -1 \\\\ \\end{matrix} \\right]_{1×4}$\n",
    "\n",
    "基于以上的学习成果，以基准模型`qwen2.5-1.5b-instruct`为例，比如取$8=r<<d=1024$，我们来对比下实际的参数量。\n",
    "\n",
    "$W^{微调后}_{d×d} = 微调(A_{d×r}*B_{r×d}) + 不变(W^{微调前}_{d×d})$\n",
    "\n",
    "<div style=\"width: 40%\">\n",
    "    \n",
    "|  **方法**  |  **参数量计算公式**  |  **参数量**  |  **节省比例**  |\n",
    "| --- | --- | --- | --- |\n",
    "|  全参数微调  |  $W_{d×d}$, 1024 ×1024  |  1,048,576  |  $0\\%$  |\n",
    "|  LoRA微调  |  $A_{d×r}$ 和 $B_{r×d}$, 1024×8 + 8 ×1024  |  16,384  |  $98.44 \\%$  |\n",
    "\n",
    "</div>\n",
    "\n",
    "最后在推理时合并使用 $A_{d×r}、B_{r×d}、W^{微调前}_{d×d}$，可选地提前或动态生成$W^{微调后}_{d×d}$。\n",
    "\n",
    "<div style=\"text-align: center;\">\n",
    "<a href=\"https://img.alicdn.com/imgextra/i2/O1CN014UROTc25B6NgTnWtZ_!!6000000007487-2-tps-3734-1286.png\" target=\"_blank\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i2/O1CN014UROTc25B6NgTnWtZ_!!6000000007487-2-tps-3734-1286.png\" style=\"width: 700px;background:white;display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</a>\n",
    "</div>\n",
    "\n",
    "LoRA微调时，主要的可调参数是我们假定的低秩$r$，它预设得越大，越能捕捉更复杂的特征变化，但模型更难微调，需要更多的显存和训练轮次。\n",
    "\n",
    "根据经验秩$r$与训练数据量关系密切：\n",
    "\n",
    "对于小的训练集（1k-10k样本）：建议秩$r≤16$，避免模型训练轮次太多，而模型去背训练集而不是学习里面的特征。\n",
    "\n",
    "对于大的训练集（100k+样本）：可尝试秩$r≥32$，可以充分挖掘数据中的潜在模式。\n",
    "\n",
    "#### 2.2.3 LoRA微调效果\n",
    "\n",
    "LoRA的作者将多种微调方法在两个数据集上进行了效果对比（横轴是训练参数量，纵轴是训练效果），可以看到LoRA微调的性价比最高。\n",
    "\n",
    "<div style=\"text-align: center;\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i1/O1CN01RGquUv1ZlDuoik8zU_!!6000000003234-2-tps-1944-662.png\" style=\"width: 700px;background:white;display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "可见并不是所有方法都能从拥有更多的可训练参数中获益，**并不是训练参数越多效果越好。** 但 **LoRA 方法表现出更好的可扩展性和任务性能**。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "1204e108",
   "metadata": {},
   "source": [
    "## 3. 微调实践\n",
    "\n",
    "### 3.1 模型训练的状态与指标\n",
    "\n",
    "训练模型，和人的学习考试过程非常相似。\n",
    "\n",
    "模型要经过三套题目的考验，产生两个指标，来确定模型训练所处于的状态。它们分别是：\n",
    "\n",
    "三套题目：\n",
    "\n",
    "*   **训练集**：课程练习册，带详细答案解析，模型会反复练习，并基于损失函数产生  \n",
    "    **训练损失**（training loss）。  \n",
    "    训练损失越小，说明模型在你给它的练习册上表现更好。  \n",
    "    结合本节 2.1 模型如何学习中讲到的梯度下降方法，模型会基于训练损失来更新自己的参数。\n",
    "    \n",
    "*   **验证集**：模拟考试题，模型每学习一段时间，就会测试一次，并基于损失函数产生  \n",
    "    **验证损失**（evaluation loss）。  \n",
    "    验证损失就是用于评估模型训练的效果。验证损失越小，说明模型在模拟考试中表现越好。\n",
    "    \n",
    "*   **测试集**：考试真题。模型在测试集上的准确率用于评估最终的模型表现。\n",
    "    \n",
    "\n",
    "模型训练的三个状态：\n",
    "\n",
    "*   **训练损失不变，甚至变大**：说明**训练失败**。  \n",
    "    你可以理解为模型在训练集（练习册）上没有学习到知识，说明模型的学习方法有问题。\n",
    "    \n",
    "*   **训练损失和验证损失都在下降：**说明模型**欠拟合。**  \n",
    "    你可以想象成模型在训练集（练习册）上的学习有进步，验证集（模拟考试）的表现也变好了，但还有更多的进步空间。这时候你应该让模型继续学习。\n",
    "    \n",
    "*   **训练损失下降但验证损失上升**：说明模型**过拟合。**  \n",
    "    你可以理解为模型只是背下了训练集（练习册），在模型考试中遇到了没背过的题反而做不来了。这种场景需要通过一些方法去抑制模型的背题倾向，比如再给它20本练习册，让它记不住所有的题，而是逼它去学习题目里面的规律。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "23363db8",
   "metadata": {},
   "source": [
    "### 3.2 基准模型考试\n",
    "\n",
    "在开始模型微调前，先来看看基准模型在测试集上的表现如何。"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "a54a02d5",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "import json\n",
    "from swift.llm import inference\n",
    "from IPython.display import Latex, display, Markdown\n",
    "\n",
    "sum, score = 0, 0\n",
    "for line in open(\"./resources/2_7/test.jsonl\"):\n",
    "    # 读取测试集中的问题\n",
    "    math_question = json.loads(line)\n",
    "    query = math_question[\"messages\"][1][\"content\"]\n",
    "    # 使用基准模型推理\n",
    "    response, _ = inference(llm, template, query)\n",
    "    # 获取正确答案\n",
    "    ans = math_question[\"messages\"][2][\"content\"]\n",
    "    pos = ans.find(\"ans\")\n",
    "    end_pos = ans[pos:].find('}}')\n",
    "    ans = ans[pos - 2: end_pos + pos + 2]\n",
    "    # 整理输出\n",
    "    print((\"========================================================================================\"))\n",
    "    print(query.split(\"#数学题#\\n\")[1])\n",
    "    print(\"问题答案是：\" + ans)\n",
    "    print(\"-----------模型回答----------------\")\n",
    "    display(Latex(response))\n",
    "    print(\"-----------回答结束----------------\")\n",
    "    # 计算模型得分\n",
    "    if ans in response or ans[6:-2] in response:\n",
    "        score += 1\n",
    "        print(\"模型回答正确\")\n",
    "    else: print(\"模型回答错误\")\n",
    "    sum += 1\n",
    "# 总结\n",
    "display(Markdown(\"模型在考试中得分：**\" + str(int(100*score/sum)) + \"** 分\"))"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "4baa331f",
   "metadata": {},
   "source": [
    "基准模型在考试中经常中途放弃推理，难以给出正确答案，这种表现不仅印证了题目难度超出其处理能力，更揭示了提示工程难以奏效的根本原因——模型本身缺乏相应解题能力。只有通过模型微调。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "bbf59e5e",
   "metadata": {},
   "source": [
    "### 3.3 模型微调\n",
    "\n",
    "这里使用 [ms-swift](https://github.com/modelscope/ms-swift/tree/main)（Modelscope Scalable lightWeight Infrastructure for Fine-Tuning）框架，它是阿里魔搭社区专门为模型训练开发的开源框架，该框架支持350+ LLM和90+ MLLM（多模态大模型）的训练(预训练、微调、对齐)、推理、评测和部署。\n",
    "\n",
    "而且 ms-swift 框架使用非常方便，在每次计算验证损失（evaluation loss）时，框架会自动保存当前训练阶段的模型参数（model_checkpoint），并在训练结束时自动保存训练过程中验证损失最小的参数，也就是下图中的（best_model_checkpoint）。\n",
    "\n",
    "<div style=\"text-align: center;\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01vxMp4Z1PgVgC1ikNd_!!6000000001870-2-tps-1331-88.png\" style=\"width: 70%;display: block; margin-left: auto; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "在接下来的多次实验中，将重点调整学习率 (learning_rate)、LoRA的秩 (lora_rank)、数据集学习次数 (num_train_epochs)三个参数，并替换数据集，展示如何进行LoRA微调，其它的参数的调整是为了方便实验效果呈现，如增加批大小（batch_size）从而缩短训练时间，你可以不用过多关注。\n"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "a91a945d",
   "metadata": {},
   "source": [
    "#### 3.3.1 第一次实验（需要1min）\n",
    "\n",
    "在初次实验中，建议你先按照以下参数设置进行微调，且数据集使用100道由DeepSeek-R1生成的题解进行训练，以便后续实验环节中通过参数优化提升训练效果：\n",
    "\n",
    "|  参数  |  参数值  |\n",
    "| --- | --- |\n",
    "|  学习率 (learning_rate)  |  0.1  |\n",
    "|  LoRA的秩 (lora_rank)  |  4  |\n",
    "|  数据集学习次数 (num_train_epochs)  |  1  |\n",
    "|  数据集位置（dataset）  |  数据集位置: 当前目录/resources/2_4/train_100.jsonl  |\n",
    "\n",
    "<br>\n",
    "\n",
    "> **注意**：可以调整所有的参数自由尝试，但根据展示效果和显存限制，有这些限制\n",
    "- batch_size <= 16 (显存限制) \n",
    "- max_length <= 512 (每条训练数据的最大长度，显存限制) \n",
    "- lora_rank <= 64 （LoRA的秩，显存限制） \n",
    "- eval_step <= 20 (方便展示) \n",
    "\n",
    "开始实验：\n",
    "<br/>\n",
    "ms-swift 框架的微调模块默认使用 LoRA 微调所以实验中不需要显式地声明微调方法。\n",
    "<br/>\n",
    "同时框架会在训练过程中智能地减少实际学习率，保证模型不会总是跳过最优解。"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "5988325c",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env CUDA_VISIBLE_DEVICES=0\n",
    "%env LOG_LEVEL=INFO\n",
    "!swift sft \\\n",
    "--learning_rate '0.1' \\\n",
    "--lora_rank 4 \\\n",
    "--num_train_epochs 1 \\\n",
    "--dataset './resources/2_7/train_100.jsonl' \\\n",
    "--batch_size '8' \\\n",
    "--max_length 512 \\\n",
    "--eval_step 1 \\\n",
    "--model_type 'qwen2_5-1_5b-instruct' \\\n",
    "--model_id_or_path './model'"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "a52b2e2e",
   "metadata": {},
   "source": [
    "|  Training loss 图片  |  evaluation loss 图片  |\n",
    "| --- | --- |\n",
    "|<img src=\"https://img.alicdn.com/imgextra/i2/O1CN0122CqML1xiykiTglmo_!!6000000006478-2-tps-667-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> | <img src=\"https://img.alicdn.com/imgextra/i4/O1CN01AxXE0V1JqEORoVBdi_!!6000000001079-2-tps-667-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> |\n",
    "\n",
    "|  **观察指标（训练损失、验证损失）：**  |  训练损失增大、验证损失增大  |\n",
    "| --- | --- |\n",
    "|  **训练状态：**  |  **训练失败**  |\n",
    "|  **原因分析：**  |  很有可能是学习率过高，导致模型参数在最优解附近反复横跳，无法找到最优解，训练失败。<img src=\"https://img.alicdn.com/imgextra/i1/O1CN01l4leTB1LKI0BcVs16_!!6000000001280-2-tps-1658-1262.png\" style=\"width: 300px;display: block; margin-left: auto; margin-right: auto\"/>|\n",
    "|  **调整逻辑**：  |  大幅降低学习率至$0.00005$，让模型以更小步幅“谨慎学习”。  |\n",
    "\n",
    "#### 3.3.2 第二次实验（需要2min）\n",
    "\n",
    "<div style=\"width: 30%\">\n",
    "    \n",
    "|  参数  |  旧参数值  |  新参数值 |\n",
    "| --- | --- | --- |\n",
    "|  学习率 (learning_rate)  |  0.1 $ $  | 0.00005 |\n",
    "    \n",
    "</div>"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "053c0d3d",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env CUDA_VISIBLE_DEVICES=0\n",
    "%env LOG_LEVEL=INFO\n",
    "!swift sft \\\n",
    "--learning_rate '0.00005' \\\n",
    "--lora_rank 4 \\\n",
    "--num_train_epochs 1 \\\n",
    "--dataset './resources/2_7/train_100.jsonl' \\\n",
    "--batch_size '8' \\\n",
    "--max_length 512 \\\n",
    "--eval_step 1 \\\n",
    "--model_type 'qwen2_5-1_5b-instruct' \\\n",
    "--model_id_or_path './model'"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "6af933c4",
   "metadata": {},
   "source": [
    "|  Training loss 图片  |  evaluation loss 图片  |\n",
    "| --- | --- |\n",
    "|<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01DgtNVX1EDgzHYamOE_!!6000000000318-2-tps-680-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> | <img src=\"https://img.alicdn.com/imgextra/i3/O1CN01621v4k1ErzqC24Z1b_!!6000000000406-2-tps-689-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> |\n",
    "\n",
    "|  **观察指标（训练损失、验证损失）：**  |  训练损失减小、验证损失也减小  |\n",
    "| --- | --- |\n",
    "|  **训练状态：**  |  **欠拟合**  |\n",
    "|  **原因分析：**  |  欠拟合是在训练中非常常见的现象。 说明在参数不变的情况下，只需要让模型再多训练，就可以训练成功了。 当然也可以修改参数来加速训练过程。  |\n",
    "|  **调整逻辑**：  |  1.  让模型多训练：数据集学习次数`num_train_epochs`增加至50。  <br/>    2.  将`batch_size`调整到最大值16，加速模型训练。       |\n",
    "\n",
    "#### 3.3.3 第三次实验（需要10min）\n",
    "\n",
    "<div style=\"width: 50%\">\n",
    "\n",
    "|  参数  |  旧参数值  |  新参数值 |\n",
    "| :--- | :--- | :--- |\n",
    "|  数据集学习次数 (num_train_epochs)   |  1  | 50 |\n",
    "|  batch_size  |  8  | 16 |\n",
    "|  eval_step  |  1  | 20（优化输出显示） |\n",
    "    \n",
    "</div>"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "647638fe",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env CUDA_VISIBLE_DEVICES=0\n",
    "%env LOG_LEVEL=INFO\n",
    "!swift sft \\\n",
    "--learning_rate '0.00005' \\\n",
    "--lora_rank 4 \\\n",
    "--num_train_epochs 50 \\\n",
    "--dataset './resources/2_7/train_100.jsonl' \\\n",
    "--batch_size '16' \\\n",
    "--max_length 512 \\\n",
    "--eval_step 20 \\\n",
    "--model_type 'qwen2_5-1_5b-instruct' \\\n",
    "--model_id_or_path './model'"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "8933c14b",
   "metadata": {},
   "source": [
    "\n",
    "|  Training loss 图片  |  evaluation loss 图片  |\n",
    "| --- | --- |\n",
    "|<img src=\"https://img.alicdn.com/imgextra/i4/O1CN01xsw3a31YarKvsEKCR_!!6000000003076-2-tps-671-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> | <img src=\"https://img.alicdn.com/imgextra/i3/O1CN01b2v3fK1jOSNo73Q3y_!!6000000004538-2-tps-680-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> |\n",
    "\n",
    "|  **观察指标（训练损失、验证损失）：**  |  训练损失减小、验证损失先减小后增大  |\n",
    "| --- | --- |\n",
    "|  **训练状态：**  |  **过拟合**  |\n",
    "|  **原因分析：**  |  过拟合也是在训练中非常常见的现象。 说明模型在“背题”，没有学习数据集中的知识。 我们可以通过降低数据集学习次数 (epoch) 、增大数据量来让模型“记不住题”。  |\n",
    "|  **调整逻辑**：  |  1.  数据集学习次数 (num_train_epochs) 降低至 3。  <br/>    2.  将由DeepSeek-R1生成的题解数量扩充至1000条。       数据集位置: 当前目录/resources/2_4/train_1k.jsonl    <br/>  3.  数据量增加后，根据之前的学习将LoRA的秩提升至8       |\n",
    "\n",
    "一般来说，在如今的大模型规模下，微调至少需要**1000+**条**优质**的训练集数据。低于此数量级时，模型多学几遍就开始“背题”而非学习数据中的蕴含的知识。\n",
    "\n",
    "#### 3.3.4 第四次实验（需要5min）\n",
    "\n",
    "|  参数  |  旧参数值  |  新参数值 |\n",
    "| --- | --- | --- |\n",
    "|  更换数据集   | 100 条数据  | 1000+ 条数据 |\n",
    "|  数据集学习次数 (num_train_epochs)   |  50  | 3 |\n",
    "|  LoRA的秩 (lora_rank)  |  4  | 8（为什么增加请到LoRA介绍中寻找答案） |"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "a77d9f59",
   "metadata": {
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env CUDA_VISIBLE_DEVICES=0\n",
    "%env LOG_LEVEL=INFO\n",
    "!swift sft \\\n",
    "--learning_rate '0.00005' \\\n",
    "--lora_rank 8 \\\n",
    "--num_train_epochs 3 \\\n",
    "--dataset './resources/2_7/train_1k.jsonl' \\\n",
    "--batch_size '16' \\\n",
    "--max_length 512 \\\n",
    "--eval_step 20 \\\n",
    "--model_type 'qwen2_5-1_5b-instruct' \\\n",
    "--model_id_or_path './model'"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "f62bd2ca",
   "metadata": {},
   "source": [
    "\n",
    "|  Training loss 图片  |  evaluation loss 图片  |\n",
    "| --- | --- |\n",
    "|<img src=\"https://img.alicdn.com/imgextra/i3/O1CN01p8rX0d1UAyUOGHeOJ_!!6000000002478-2-tps-671-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> | <img src=\"https://img.alicdn.com/imgextra/i1/O1CN01LjmbJ21P4Uo8ZJyav_!!6000000001787-2-tps-689-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> |\n",
    "\n",
    "\n",
    "|  **观察指标（训练损失、验证损失）：**  |  训练损失减小、验证损失也减小  |\n",
    "| --- | --- |\n",
    "|  **训练状态：**  |  **欠拟合**  |\n",
    "|  **原因分析：**  |  训练快成功了！  |\n",
    "|  **调整逻辑**：  |  让模型多训练：数据集学习次数 (epoch) 增加至 15。  |\n",
    "\n",
    "#### 3.3.5 第五次实验（需要20min）\n",
    "\n",
    "|  参数  |  旧参数值  |  新参数值 |\n",
    "| --- | --- | --- |\n",
    "|  数据集学习次数 (num_train_epochs)   |  3  | 15 |"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "bbae8bc9",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env CUDA_VISIBLE_DEVICES=0\n",
    "%env LOG_LEVEL=INFO\n",
    "!swift sft \\\n",
    "--learning_rate '0.00005' \\\n",
    "--lora_rank 8 \\\n",
    "--num_train_epochs 15 \\\n",
    "--dataset './resources/2_7/train_1k.jsonl' \\\n",
    "--batch_size '16' \\\n",
    "--max_length 512 \\\n",
    "--eval_step 20 \\\n",
    "--model_type 'qwen2_5-1_5b-instruct' \\\n",
    "--model_id_or_path './model'"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "2278eac9",
   "metadata": {},
   "source": [
    "\n",
    "|  Training loss 图片  |  evaluation loss 图片  |\n",
    "| --- | --- |\n",
    "|<img src=\"https://img.alicdn.com/imgextra/i4/O1CN01hyQhbn1p04zyTeQkv_!!6000000005297-2-tps-671-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> | <img src=\"https://img.alicdn.com/imgextra/i3/O1CN01oy2oZv1r0ejEmpYdQ_!!6000000005569-2-tps-680-451.png\" style=\"width: 500px;display: block; margin-left: auto; margin-right: auto\"/> |\n",
    "\n",
    "\n",
    "|  **观察指标（训练损失、验证损失）：**  |  训练损失基本不减小、验证损失也基本不减小甚至还略微升高  |\n",
    "| --- | --- |\n",
    "|  **训练状态：**  |  **训练成功！**  |"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "ecf3c61e",
   "metadata": {},
   "source": [
    "### 3.4 微调成功后的考试\n",
    "\n",
    "微调后一般会保存两个`checkpoint`文件，分别是`best_model_checkpoint`（在验证集表现最佳的模型参数）与`last_model_checkpoint`（微调任务完成时的模型参数）。\n",
    "\n",
    "这里选取`best_model_checkpoint`地址替换下面代码中的`ckpt_dir`，就能调用微调后的模型。\n",
    "\n",
    "我们先加载模型到内存中："
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "6db20cca",
   "metadata": {
    "ExecutionIndicator": {
     "show": false
    },
    "execution": {
     "iopub.execute_input": "2025-03-05T06:39:42.351491Z",
     "iopub.status.busy": "2025-03-05T06:39:42.351101Z",
     "iopub.status.idle": "2025-03-05T06:39:42.557987Z",
     "shell.execute_reply": "2025-03-05T06:39:42.557464Z",
     "shell.execute_reply.started": "2025-03-05T06:39:42.351463Z"
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "from swift.tuners import Swift\n",
    "\n",
    "# 请在运行前修改ckpt_dir到正确的位置\n",
    "ckpt_dir = 'output/qwen2_5-1_5b-instruct/vx-xxx/checkpoint-xxx' # 请修改为lora微调后checkpoint文件夹的位置\n",
    "\n",
    "# 加载模型\n",
    "ft_model = Swift.from_pretrained(llm, ckpt_dir, inference_mode=True)"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "94883c28",
   "metadata": {},
   "source": [
    "让我们来看看微调后的模型在考试中的表现。"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "bff22696",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "import json\n",
    "from swift.llm import inference\n",
    "from IPython.display import Markdown\n",
    "\n",
    "sum, score = 0, 0.0\n",
    "for line in open(\"./resources/2_7/test.jsonl\"):\n",
    "    # 读取测试集中的问题\n",
    "    math_question = json.loads(line)\n",
    "    query = math_question[\"messages\"][1][\"content\"]\n",
    "    # 使用微调成功的模型推理\n",
    "    response, _ = inference(ft_model, template, query)\n",
    "    # 获取正确答案\n",
    "    ans = math_question[\"messages\"][2][\"content\"]\n",
    "    pos = ans.find(\"ans\")\n",
    "    end_pos = ans[pos:].find('}}')\n",
    "    ans = ans[pos - 2: end_pos + pos + 2]\n",
    "    # 整理输出\n",
    "    print((\"========================================================================================\"))\n",
    "    print(query.split(\"#数学题#\\n\")[1])\n",
    "    print(\"问题答案是：\" + ans)\n",
    "    print(\"-----------模型回答----------------\")\n",
    "    display(Latex(response))\n",
    "    print(\"-----------回答结束----------------\")\n",
    "    # 计算模型得分\n",
    "    if ans in response:\n",
    "        score += 1\n",
    "        print(\"模型回答正确\")\n",
    "    elif ans[6 : -2] in response:\n",
    "        score += 0.5\n",
    "        print(\"模型回答正确但输出格式错误\")\n",
    "    else: print(\"模型回答错误\")\n",
    "    sum += 1\n",
    "# 总结\n",
    "display(Markdown(\"微调后的模型在考试中得分：**\" + str(int(100*score/sum)) + \"** 分\"))"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "960edb37",
   "metadata": {},
   "source": [
    "### 3.5 参数矩阵融合\n",
    "\n",
    "模型训练完成后，有两种方式可以使用训练后的模型：\n",
    "\n",
    "1.  在调用时动态加载微调模型。  \n",
    "\n",
    "    微调后获得的低秩参数矩阵只占20MB的存储空间，这个大小非常便于做增量发布和传播，这也是工程上常用的方法。需要注意的是，用哪个基础模型微调，在加载时就需要指定使用哪个基础模型。  \n",
    "\n",
    "    我们在前一小节中，已经通过指定`ckpt_dir`尝试了这种方法。\n",
    "\n",
    "2.  将基础模型与微调得到的低秩参数融合，获得一个完整的、更新了参数的模型，再调用融合了的模型。\n",
    "\n",
    "这里我们介绍第二种方法：融合“微调参数矩阵”与“基础模型参数矩阵”，将微调后的模型参数存储成一个完整的参数矩阵。\n",
    "\n",
    "通过`swift export`方法，传入微调模型的路径（建议传入`best_model_checkpoint`），便可得到融合后的模型。"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "01928dad",
   "metadata": {
    "ExecutionIndicator": {
     "show": true
    },
    "tags": []
   },
   "outputs": [],
   "source": [
    "%env LOG_LEVEL=INFO\n",
    "!swift export \\\n",
    "--ckpt_dir 'output/qwen2_5-1_5b-instruct/vx-xxx/checkpoint-xxx<运行前修改为checkpoint位置>' \\\n",
    "--merge_lora true"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "bb781cd7",
   "metadata": {},
   "source": [
    "日志展示了融合后模型的路径。融合后的完整参数矩阵默认存储在`checkpoint`目录下。（PAI实验环境完整的模型参数在：`output/qwen2_5-1_5b-instruct/vX-XXX/checkpoint-XX-merged`）。"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "70a31b63",
   "metadata": {},
   "source": [
    "## ✅ 本节小结\n",
    "\n",
    "在本节课程中，我们学习了以下内容：\n",
    "\n",
    "*   理解模型微调的核心价值：通过定向数据注入直接提升模型在数学领域的推理能力，突破提示工程和RAG的局限性。\n",
    "    \n",
    "*   掌握训练关键参数：学习率控制参数更新幅度，epoch决定数据遍历次数，batch size影响梯度稳定性，并通过损失函数监控训练状态。\n",
    "    \n",
    "*   认识LoRA高效微调原理：基于低秩矩阵分解降低显存消耗（理论讲解），实践中通过调整lora_rank参数优化训练效果。\n",
    "    \n",
    "*   完成迭代式调参实验：通过多次学习率/数据量/训练轮次调整，解决欠拟合与过拟合问题，最终显著提升模型解题准确率。\n",
    "\n",
    "虽然在本教程中你可以使用准备好的数据集，免费体验GPU算力资源进行微调，**但在实际生产中，微调并不简单，需综合考虑算力成本、数据规模与质量等因素**。\n",
    "尤其需要关注这几个方面：\n",
    "1. 提示词工程、RAG等低成本解决方案是否足够处理问题。\n",
    "2. 数据数量和质量是否满足微调的最低门槛（至少1000条优质数据）。\n",
    "3. 确保项目预算和专家技术能力匹配，性价比可以接受。\n",
    "    \n",
    "### 进一步学习\n",
    "#### 更多机器学习任务的微调\n",
    "\n",
    "*   图像分类（如物体识别、医学影像诊断）\n",
    "    \n",
    "    *   微调目的：在预训练模型（如ResNet、ViT）基础上，针对特定图像数据集优化特征提取能力。\n",
    "        \n",
    "    *   关键点：减少数据需求，利用预训练模型的通用视觉知识迁移到细分任务。\n",
    "        \n",
    "*   目标检测（如自动驾驶、安防监控）\n",
    "    \n",
    "    *   微调目的：调整模型（如YOLO、Faster R-CNN）对特定物体或场景的检测能力。\n",
    "        \n",
    "    *   关键点：优化模型对目标位置和类别的敏感度，降低误检/漏检率。\n",
    "        \n",
    "*   机器翻译（如领域专用翻译）\n",
    "    \n",
    "    *   微调目的：使通用翻译模型（如mBART、T5）适应专业领域术语和表达习惯。\n",
    "        \n",
    "    *   关键点：解决通用模型在垂直领域翻译中的语义偏差问题。\n",
    "        \n",
    "*   推荐系统（如电商、内容平台）\n",
    "    \n",
    "    *   微调目的：基于用户行为数据优化推荐模型（如协同过滤、深度排序模型）。\n",
    "        \n",
    "    *   关键点：平衡个性化推荐与冷启动问题，提升点击率/转化率。\n",
    "        \n",
    "\n",
    "#### 更多高效微调方法\n",
    "\n",
    "*   **Freeze**：该方法是最早的PEFT方法。它在微调时冻结模型的大部分参数，仅训练模型中的小部分参数（比如最后几层神经网络），来快速适应特定任务的需求。特点 ：\n",
    "    \n",
    "    *   参数效率高（仅训练少量参数）。\n",
    "        \n",
    "    *   适用于任务与预训练目标接近的场景（如文本分类）。\n",
    "        \n",
    "    *   对复杂任务可能效果不足。\n",
    "        \n",
    "<div style=\"text-align: left;\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i1/O1CN01X9GOk81sgAEtxflGR_!!6000000005795-2-tps-1340-686.png\" style=\"width: 600px;display: block; margin-left: 60px; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "*   **Adapter Tuning**：在原有的模型架构上，在某些位置之间插入Adapter层，微调时模型原有参数不会被训练，只训练这些Adapter层，而原先的参数不会参与训练。特点 ：\n",
    "    \n",
    "    *   模块化设计，兼容性强。\n",
    "        \n",
    "    *   参数量略高于 LoRA，但效果稳定。\n",
    "        \n",
    "    *   需修改模型结构，推理时需额外计算。\n",
    "        \n",
    "<div style=\"text-align: left;\">\n",
    "<img src=\"https://img.alicdn.com/imgextra/i2/O1CN016gccCd1CdDpjDxbe9_!!6000000000103-2-tps-1482-1048.png\" style=\"width: 500px;display: block; margin-left: 60px; margin-right: auto\"/>\n",
    "</div>\n",
    "\n",
    "*   Prompt Tuning：通过优化输入的可学习向量（Prompt）间接控制模型行为，冻结模型参数。特点 ：\n",
    "    \n",
    "    *   无需修改模型结构，仅调整输入。\n",
    "        \n",
    "    *   对生成任务（如翻译、对话）友好。\n",
    "        \n",
    "    *   效果依赖提示设计，复杂任务可能不足。\n",
    "        \n",
    "\n",
    "#### 微调数据集构建策略\n",
    "\n",
    "一般来说，在比较复杂的场景中，微调至少需要**1000+条优质的训练集数据**。构建数据集时，请确认以下几点：\n",
    "\n",
    "*   **数据质量**：确保数据集准确、内容相关，剔除模糊或错误样本。\n",
    "    \n",
    "*   **多样性覆盖**：包含任务全场景、多语境及专业术语，避免分布单一。\n",
    "    \n",
    "*   **类别平衡**：如果任务涉及多种类别场景，确保各类别样本均衡，防止模型偏向于某一类。\n",
    "    \n",
    "*   **持续迭代**：微调是一个迭代过程，根据模型在验证集上的表现反馈，不断优化和扩大数据集。\n",
    "    \n",
    "\n",
    "而如果你在进行模型微调时缺乏数据，建议你使用知识库检索来增强模型能力（如业务文档、FAQ）。\n",
    "\n",
    "> 在很多复杂的业务场景中，可以综合采用模型调优和知识库检索相结合的技术方案。\n",
    "\n",
    "你也可以采用以下策略扩充数据集：\n",
    "\n",
    "*   **人工标注**：由专家扩展典型场景数据。\n",
    "    \n",
    "*   **模型生成**：用大模型模拟业务场景数据。\n",
    "    \n",
    "*   **外部采集**：通过爬虫、公开数据集、用户反馈等渠道获取。\n",
    "    \n",
    "\n",
    "#### 模型评测常用指标\n",
    "\n",
    "不同类型的任务评测指标有显著差异，如下是一些典型任务的评测指标：\n",
    "\n",
    "*   **分类任务**：\n",
    "    \n",
    "    *   准确率（Accuracy）：正确预测的比例。\n",
    "        \n",
    "    *   精确度（Precision）、召回率（Recall）与F1分数（F1 Score）：用于衡量二分类或多分类问题中正类别的识别效果。\n",
    "        \n",
    "*   **文本生成任务**：\n",
    "    \n",
    "    *   BLEU (Bilingual Evaluation Understudy) ：主要用于机器翻译等自然语言处理任务中，通过比较候选翻译与一个或多个参考翻译之间的n-gram重叠来计算得分。\n",
    "        \n",
    "    *   ROUGE (Recall-Oriented Understudy for Gisting Evaluation) ：常用于自动摘要评价，它基于n-gram召回率、精确率以及F-measure。\n",
    "        \n",
    "    *   Perplexity (困惑度)：用来衡量概率分布模型预测样本的不确定程度；越低越好。\n",
    "        \n",
    "*   **图像识别/目标检测**：\n",
    "    \n",
    "    *   Intersection over Union (IoU)：两个边界框相交部分面积与并集面积之比。\n",
    "        \n",
    "    *   mAP (mean Average Precision)：平均精度均值，广泛应用于物体检测任务中。\n",
    "        \n"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "2e76c79e-cb06-4a10-b6f0-57cc84ed069d",
   "metadata": {},
   "source": [
    "## 🔥 课后小测验\n",
    "\n",
    "### 🔍 单选题\n",
    "<details>\n",
    "<summary style=\"cursor: pointer; padding: 12px; border: 1px solid #dee2e6; border-radius: 6px;\">\n",
    "<b>以下关于 LoRA 的描述，哪一项是错误的❓</b>\n",
    "\n",
    "- A. LoRA 可以有效降低微调大型语言模型的成本。\n",
    "- B. LoRA 会修改被微调模型的原始权重。\n",
    "- C. LoRA 的实现相对简单，易于集成。\n",
    "- D. LoRA 微调的结果可以方便地回退。\n",
    "\n",
    "**【点击查看答案】**\n",
    "</summary>\n",
    "\n",
    "<div style=\"margin-top: 10px; padding: 15px; border: 1px solid #dee2e6; border-radius: 0 0 6px 6px;\">\n",
    "\n",
    "✅ **参考答案：B**  \n",
    "📝 **解析**：  \n",
    "- LoRA 并不直接修改原始权重，而是通过添加低秩矩阵间接影响模型行为。 这使得回退操作变得简单，只需移除添加的低秩矩阵即可。\n",
    "\n",
    "</div>\n",
    "</details>\n",
    "\n",
    "---\n",
    "\n",
    "\n",
    "### 🔍 多选题\n",
    "<details>\n",
    "<summary style=\"cursor: pointer; padding: 12px; border: 1px solid #dee2e6; border-radius: 6px;\">\n",
    "<b>你正在使用 Swift 微调一个 Qwen 模型，发现模型在验证集上的 loss 出现了明显的上升趋势，以下哪些操作可以帮助你缓解或解决这个问题❓</b>\n",
    "\n",
    "- A. 增大 --learning_rate\n",
    "- B. 减小 --learning_rate\n",
    "- C. 增大 --num_train_epochs\n",
    "- D. 减小 --num_train_epochs\n",
    "\n",
    "**【点击查看答案】**\n",
    "</summary>\n",
    "\n",
    "<div style=\"margin-top: 10px; padding: 15px;  border: 1px solid #dee2e6; border-radius: 0 0 6px 6px;\">\n",
    "\n",
    "✅ **参考答案：BD**  \n",
    "📝 **解析**：  \n",
    "-  learning_rate: 学习率过大会导致模型训练速度快，但可能在最优解附近震荡，甚至无法收敛，导致loss波动，看起来像是过拟合。当然这与真正的过拟合不同。  \n",
    "- num_train_epochs: 过拟合也可能是训练次数过多导致的，减少训练次数可以避免模型过度学习训练数据。\n",
    "\n",
    "</div>\n",
    "</details>\n",
    "\n"
   ]
  },
  {
   "cell_type": "markdown",
   "id": "36cbd470",
   "metadata": {},
   "source": [
    "## ✉️ 评价反馈\n",
    "感谢你学习阿里云大模型ACP认证课程，如果你觉得课程有哪里写得好、哪里写得不好，期待你[通过问卷提交评价和反馈](https://survey.aliyun.com/apps/zhiliao/Mo5O9vuie)。\n",
    "\n",
    "你的批评和鼓励都是我们前进的动力。"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python (llm_learn)",
   "language": "python",
   "name": "llm_learn"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.11.9"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}
